视觉假冒物越来越多地导致具有神经图像合成方法快速演变的主流介质中的存在难题。尽管对这种伪造的发现一直是图像法医社区中的一个征税问题,但最近的法医探测器(通用探测器)都能够出人意料地发现伪造的图像,无论发电机架构,损失功能,培训数据集和解决方案如何。这种有趣的属性表明,通用检测器中可能存在可转移的法医特征(T-FF)。在这项工作中,我们进行了第一个分析研究,以发现和理解通用探测器中的T-FF。我们的贡献是2倍:1)我们提出了一个新颖的法医功能相关统计量(FF-RS),以量化和发现通用检测器中的T-FF,以及2)我们的定性和定量研究发现了一个意外的发现:颜色是关键的发现:通用检测器中的T-FF。代码和型号可在https://keshik6.github.io/transferable-forensic-features/
translated by 谷歌翻译
这项工作研究了标签平滑(LS)和知识蒸馏(KD)之间的兼容性。解决这一论文陈述的当代发现采取二分法的观点:Muller等。 (2019)和Shen等。 (2021b)。至关重要的是,没有努力理解和解决这些矛盾的发现,留下了原始问题 - 顺利还是不平稳教师网络? - 未得到答复。我们工作的主要贡献是对系统扩散的发现,分析和验证是缺失的概念,这在理解和解决这些矛盾的发现方面具有重要作用。这种系统的扩散基本上削减了从LS训练的老师蒸馏的好处,从而使KD在升高的温度无效时使KD呈现。我们的发现得到了大规模实验,分析和案例研究的全面支持,包括图像分类,神经机器翻译和紧凑的学生蒸馏任务,这些任务跨越了多个数据集和教师 - 学生架构。根据我们的分析,我们建议从业者使用具有低温转移的LS训练的老师来实现高性能学生。代码和型号可在https://keshik6.github.io/revisiting-ls-kd-compatibility/
translated by 谷歌翻译